1
Ландшафт продвинутого генеративного ИИ
PolyU COMP5511Lesson 11
00:00

Ландшафт продвинутого генеративного ИИ эволюционировал от изолированных монолитных моделей к многоуровневой экосистеме, определяемой понятием композитных ИИ-систем. Этот сдвиг отходит от простого вероятностного прогнозирования токенов к системам, которые оркестрируют фундаментальные модели (ФМ), модульные плагины и кросс-модальный синтез.

Вычисления / Облачная инфраструктураЯЗМ (LLM)ДиффузияАудио / КодУровень оркестрации и агентов

Таксономия генеративного стека

  • Инфраструктурный уровень: Аппаратный фундамент (GPU/TPU) и облачные сервисы, обеспечивающие огромные вычислительные мощности, необходимые для обучения и высокоскоростного вывода.
  • Модельный уровень: Фундаментальные модели (ФМ), такие как GPT-4, Llama 3 и Stable Diffusion, которые служат специализированными движками для различных модальностей.
  • Уровень оркестрации: Фреймворки, которые управляют логикой, потоками данных и поиском, переводя модели от «замороженных» весов к системам с контекстной осведомлённостью в реальном времени.

Конвергенция модальностей

Технический тренд направлен на унификацию архитектур — прежде всего трансформеров и диффузионных моделей — что позволяет создать общее латентное пространство. Это обеспечивает единый унифицированный интерфейс, в котором текст, изображения и видео обрабатываются как непрерывный поток информации, математически представленный как отображение между различными латентными многообразиями $M_{text} \leftrightarrow M_{visual}$.

Структурная эволюция
Мы переходим от моделей «с закрытой книгой», которые полагаются исключительно на параметры обучающих данных $\theta$, к системам «с открытой книгой», которые используют внешнее состояние среды $E$ для решения сложных задач рассуждения через $P(y|x, E)$.
Реализация на Python